奥特曼最新访谈，聊到了GPT-5、AGI……

点击蓝字关注我们

· 我已经放弃给出实现通用人工智能的时间表，但我认为在接下来的许多年里，我们每年都会推出更强大的系统。

· GPT-5将会比GPT-4聪明得多，GPT-6将比GPT-5聪明得多，我们还没有接近这条曲线的顶端，我们知道该怎么做。一般来说，新一代产品会更聪明，但我认为这句话的重要性仍然被低估了。

· 随着模型变得越来越有能力，我们的标准也越来越高。

……

近日，OpenAI首席执行官山姆·奥特曼参加斯坦福大学企业思想领袖讲坛ETL的活动，分享了他对人工智能未来发展的见解。

益读社摘录了部分对话内容，分享给大家：

图片来自人工智能X生产力

问：我们会在何时实现通用人工智能？

山姆·奥特曼：就这个问题而言，我认为我们需要对通用人工智能有个更准确的定义，大家对此有太多误解。与何时能实现通用人工智能相比，人们更想知道的是，人工智能会让世界变成什么样子？变化率什么时候会变得超高？经济运行的方式何时会真正不同？他们的生活什么时候会改变？这些一系列原因，可能与我们想象的大不相同。

最初，我并不知道这一切会如何发展，所以我不知道如何给出一个准确的时间表，说明我们何时达到人们关心的里程碑。但我认为重要的是，我们将会拥有比现在更强大的系统，而且一代会比一代强。

我已经放弃给出实现通用人工智能的时间表，但我认为在接下来的许多年里，我们每年都会推出更强大的系统。

问：你如何看待通用人工智能可能给我们带来的风险？你更关心微妙的危险还是灾难性的危险，还是两者都不关心？

山姆·奥特曼：我更关心细微的危险，相比灾难性的风险，前者更容易被忽视。许多人都在谈论和思考灾难性的风险，这种风险真实存在且真的很严重，但我们至少意识到了它，并为此付出了大量努力。但对于一些细微的风险，我不认为大家知道应该要注意些什么，所以这真的很难。虽然我对这两种风险同时感到担忧，但未知的风险更令人担心。

问：你特别担心的是什么？

山姆·奥特曼：“已知的未知”。尽管短期内其他主要技术的变化比我们想象的要小，但从长期来看，它们的变化比我们想象的要大。我担心社会能以什么样的速度才能适应此类新鲜事物？我们需要多长时间才能找到新的社会契约，才能做到更好地适应变化？

问：说到自我意识，你认为你最危险的弱点是什么？

山姆·奥特曼：我想我有一种过于支持科技的一般偏差。这只是因为我很好奇，我想知道科技会走向何方。我相信技术总体来说是件好事，但我认为这是一种对我和其他人都有好处的世界观，得到了很多积极的强化，但它并不总是正确的。当它不正确时，对很多人来说，就很糟糕。

问：GPT-5发布时，什么是让你最感兴趣的？

山姆·奥特曼：我还不知道。这听起来像是逃避问题的回答，但我认为GPT-5最重要的是，它会比现在的模型更智能。我们能够高度确定，GPT-5将会比GPT-4聪明得多，GPT-6将比GPT-5聪明得多，我们还没有接近这条曲线的顶端，我们知道该怎么做。一般来说，新一代产品会更聪明，但我认为这句话的重要性仍然被低估了。

问：你们打算如何在OpenAI中负责任地部署通用人工智能，以防止扼杀人类创新并继续刺激创新？

山姆·奥特曼：实际上，我一点也不担心人类创新会遭到扼杀。我真的深深相信，人们会用更好的工具给我们带来惊喜。所有的历史都表明，如果你给人们更多的影响力，他们会做更多令人惊讶的事情。

我越来越担心我们如何负责任地做这件事。随着模型变得越来越有能力，我们的标准也越来越高。我们做了很多事情，如红队和外部审计，我认为这些都很好。但随着模型变得越来越强大，我们将不得不进行更多的迭代部署，在查看它们如何使用、在哪里可以使用、在哪里不可以使用等方面，有着更加紧密的反馈循环。

过去，我们每隔几年就会发布一次主要的模型更新，现在我们可能必须想办法增加迭代频率，部署比过去更具迭代性的产品。我们还不太清楚如何做到这一点。这将是负责任的部署的关键，也是我们让所有利益相关者协商人工智能规则的方式。随着时间的推移，这也会变得越来越复杂。

问：在部署通用智能和负责任的人工智能时，你认为人工智能系统有多大必要，以某种方式识别自己的不安全性或不确定性，并将其传达给外部世界？

山姆·奥特曼：总是对过度拟人化的人工智能感到紧张，可能会导致一些奇怪的疏忽。但建立一种像人工智能一样最大限度地认识到自己缺陷的能力，非常重要。这种能力能够识别推理中的错误，并具有某种自省能力，对我来说，它是非常重要的追求。

素材来源：腾讯科技

—- END -—

往期推荐